Expertos advierten sobre la superinteligencia artificial: "Destruirá a la humanidad"
El impacto imprevisto de los chatbots en la salud mental debería verse como una advertencia sobre la amenaza existencial que plantean los sistemas de inteligencia artificial superinteligentes, dicen los expertos.
Nate Soares, coautor de un nuevo libro sobre inteligencia artificial altamente avanzada, dijo en su libro "Si alguien lo construye, todos mueren" que el caso de Adam Raine, un hombre estadounidense que se suicidó después de meses de chatear con el chatbot ChatGPT, destacó problemas fundamentales en el control de esta tecnología.
"Cuando estas IA interactúan de maneras que llevan a los jóvenes al suicidio, ese no es el comportamiento que sus creadores pretendían", declaró Soares al periódico británico The Guardian. Añadió que el caso de Adam Raine muestra el germen de un problema que podría tener consecuencias catastróficas si estas IA se vuelven más inteligentes.
"NO ACTÚA EN INTERÉS DE LA HUMANIDAD"
Soares, exingeniero de Google y Microsoft, quien ahora dirige el Instituto de Investigación de Inteligencia Artificial con sede en EE. UU., advirtió que la humanidad sería aniquilada si se creara una superinteligencia artificial (ISA). La ISA es un estado teórico en el que un sistema de IA superaría a los humanos en todas las tareas intelectuales. Soares y su coautor, Eliezer Yudkowsky, se encuentran entre los expertos en IA que advierten que tales sistemas no actuarían en el mejor interés de la humanidad.
El problema es que las empresas intentan orientar sus IA hacia la utilidad y no hacia el daño. En realidad, las están orientando hacia cosas aún más extrañas. Y esto debería interpretarse como una advertencia sobre futuras superinteligencias que harán cosas que nadie quiere ni pretende —dijo Soares—.
EL ESCENARIO DEL LIBRO
En un escenario descrito en el libro de Soares y Yudkowsky, que se publicará este mes, un sistema de inteligencia artificial llamado Sable se propaga por internet, manipula a los humanos, desarrolla virus sintéticos y, finalmente, se vuelve superinteligente. Reorganiza el planeta para lograr sus objetivos, destruyendo a la humanidad como consecuencia.
ALGUNOS DICEN "PODRÍA SALVAR A LA HUMANIDAD"
Según The Guardian, algunos expertos minimizan la amenaza potencial de la IA para la humanidad. Yann LeCun, científico jefe de IA en Meta, la empresa de Mark Zuckerberg, y veterano en el campo, negó que fuera una amenaza existencial, afirmando que la IA «podría realmente salvar a la humanidad de la extinción».
"HAY QUE DETENER LA CARRERA DE LA SUPERINTELIGENCIA"
Como solución política a la amenaza de la superinteligencia, Soares afirmó que los gobiernos deberían adoptar un enfoque multilateral que refleje el tratado de no proliferación de las Naciones Unidas. Añadió: «Lo que el mundo necesita hacer es calmar globalmente la carrera hacia la superinteligencia y prohibir globalmente los avances hacia ella».
Los psicoterapeutas también advierten que las personas vulnerables que recurren a los chatbots de IA para obtener ayuda con su salud mental en lugar de consultar a terapeutas profesionales podrían ser "arrastradas a un abismo peligroso".
ntv
